美國川普政府透過衛生及公共服務部，正推動放寬人工智慧醫療工具的監管規範，包含取消用戶導向設計與AI透明度要求。此舉引發醫界與病患安全倡議者的擔憂，認為這可能損害病患安全，甚至導致錯誤醫療。
美國現任川普政府正透過其衛生及公共服務部（HHS），推動放寬人工智慧（AI）醫療工具的監管規範，此舉引發醫界與病患安全倡議者的擔憂，恐為病患帶來潛在風險。
根據《Anchorage Daily News》報導，美國衛生及公共服務部長小羅伯特·弗朗西斯·肯尼迪（Robert F. Kennedy Jr.）主導的衛生資訊科技辦公室，所提出的新版規則草案，已移除了歐巴馬政府時期所鼓勵的「用戶導向設計」測試，以及先前拜登政府時代欲推動的AI透明度「模型卡片」計畫。
這些擬議中的變革，被批評可能削弱醫療紀錄的可理解性、易用性，以及AI使用上的透明度。MedStar Health 的研究人員 Raj Ratwani 指出，目前聯邦層級尚未有完善的防護措施來審查自動記錄軟體。他憂心，一旦這些要求被放寬，醫療軟體恐因設計不良或資訊雜亂，導致醫護人員選錯藥物，危及病患。
部分醫護人員對現有AI工具的效用也持保留態度。凱撒醫療集團（Kaiser Permanente）一位心理治療師便表示，他所使用的 Abridge AI Inc. 開發的 AI 記錄軟體「並非非常有用」，經常需要手動修正電腦生成的筆記。他提到，這類AI在判讀臨床細微差異和情感語氣方面表現不佳，這在心理健康等領域至關重要。
然而，AI醫療工具的支持者則認為，放寬監管有助於促進創新。Abridge AI Inc. 的總法律顧問 Tim Hwang 表示，公司「廣泛支持」政府的規定，認為這是「必要的現代化」，能「適應AI快速發展的速度」。Leavitt Partners 的負責人 Ryan Howells 也指出，舊有規範對電子健康紀錄系統（EHR）造成過重負擔，是「阻礙真正臨床創新」的最大因素之一。
儘管有業者聲稱，根據今年四月發表於《美國醫學會雜誌》（Journal of the American Medical Association）的一項針對五家醫院的研究顯示，經常使用AI記錄產品的醫生，在一年後平均每天可節省超過半小時的工作時間。但另一項比較退伍軍人健康管理局（Veterans Health Administration）11款AI記錄軟體的研究卻發現，在五個模擬情境中，這些軟體的表現普遍遜於人類，尤其是在資訊省略方面令人擔憂。
美國醫院協會（American Hospital Association）已在評論信中強調，鑑於越來越多AI工具進入市場，AI的透明度至關重要，因為過去醫院常面臨「某些AI工具的黑箱性質」挑戰。美國醫師協會（American College of Physicians）也警告，AI缺乏清晰度可能「損害臨床醫師的信任、增加責任費用，並侵蝕醫病關係」。